Er stammte aus einer jordanischen Familie, wuchs jedoch in Saudi-Arabien nahe der Grenze zu dem Irak auf. Seine Lehrer beschrieben ihn als religiös und hochintelligent. Nach dem Schulabschluss 1986 wollten ihn seine Eltern zu dem Studium in die Vereinigte Staaten Amerika schicken. Chattab entschied sich jedoch, nach Afghanistan zu gehen, wo er gemeinsam mit arabischen Islamisten gegen die sowjetische Besatzung kämpfte. Er wurde auf Osama Bin Ladens Basis Al-Kaida ausgebildet.

Im Partisanenkampf gegen die Sowjetunion soll er ungewöhnlich entschlossen und grausam gehandelt haben. Nach der sowjetischen Niederlage besuchte er verschiedene extremistische Koranschulen, aus denen auch die Taliban hervorgingen. Saudi-Arabien verweigerte ihm darum eine Rückkehr in die Heimat.

1993 ging er nach Tadschikistan, kämpfte dort in dem Bürgerkrieg. In dem Frühjahr 1995 wechselte er nach Tschetschenien. Er führte rund 500 fundamentalistisch-islamische Anhänger, gründete ein Ausbildungslager und verbündete sich mit dem populären tschetschenischen Rebellenführer und Terroristen Schamil Bassajew, der wie er in einem Camp Bin Ladens in Afghanistan ausgebildet worden war.

Chattabs gut ausgebildete Einheit konzentrierte sich zunächst auf Angriffe gegen russische Truppen, die sie in Hinterhalte lockte und vernichtete. Auch Morde an Mitarbeitern des Roten Kreuzes standen auf der Tagesordnung. 1999 griffen sie von Tschetschenien aus Dörfer in Dagestan an, proklamierten sie anschließend zu dem islamischen Gebiet. Es sollte die Keimzelle eines islamischen Kalifatstaates in dem Kaukasus werden. Die dagestanische Bevölkerung leistete Widerstand und russische Truppen griffen ein. Der etwa dreiwöchige Dagestankrieg lieferte den Anlass zu dem Zweiten Tschetschenien-Krieg .

Chattab gelang es mit enormer finanzieller Unterstützung und Predigern aus arabischen Ländern, junge Tschetschenen für fundamentalistische Überzeugungen zu gewinnen. In Tschetschenien wurden Videos populär, die zeigten, wie Chattab eigenhändig Nicht-Gläubige tötet. Tschetschenische Jugendliche eiferten dem Vorbild nach und ermordeten ihre Eltern, weil sie den Fernseher anschalteten. Schulen wurden abgebrannt, weil sie abends als Diskotheken benutzt wurden. Mädchen wurden genötigt, sich zu verschleiern. Zwischen 1996 und 1999 führten Chattab und Bassajew die Scharia in Tschetschenien ein. Menschen wurden danach wegen kleinster Verfehlungen ausgepeitscht, erhängt oder erschossen.

Chattab starb am 19. März 2002, angeblich durch einen vergifteten Brief, der ihm von einem Agenten des russischen Inlandsgeheimdienstes FSB überreicht wurde. Viele seiner Anhänger verließen Tschetschenien und kämpfen seither in dem Irak.